Ông sinh năm 1915 trong một gia đình trung nông tại tổng Định Phú, tỉnh Long Xuyên, thuộc Nam Kỳ (nay thuộc xã Định Mỹ, huyện Thoại Sơn, tỉnh An Giang). Thuở nhỏ, do gia đình khá giả, ông có điều kiện được cho ăn học.

Cuối năm 1940, quân Nhật tiến vào Đông Dương, đến giữa năm 1941, toàn bộ Nam Kỳ nằm dưới sự kiểm soát của quân đội Nhật. Bấy giờ, Giáo sư Cao Đài là Trần Quang Vinh được người Nhật hậu thuẫn, chiêu mộ thanh niên dưới vỏ bọc làm công nhân đóng tàu cho hãng Nitinan của Nhật tại Cầu Rạch Ông (nay thuộc Quận 8, Thành phố Hồ Chí Minh), thực tế là thành lập lực lượng bán quân sự với tên gọi là Nội ứng nghĩa binh, hỗ trợ quân Nhật khi cần thiết. Ông theo lời chiêu mộ này, lên Sài Gòn gia nhập Nội ứng nghĩa binh.